GraphRAG 完全指南

给客服机器人接了向量 RAG,单文档问答很准。直到有人问了一句「我们家产品的最大竞品,是谁创立的公司做的?」——机器人卡壳了。答案明明就在知识库里,只是分散在三篇文档:一篇讲产品、一篇讲竞品、一篇讲那家公司的创始人。向量检索按关键词相似度捞 top-k,第三篇和问题里的词几乎不沾边,直接被漏掉。

这不是模型不够聪明,是朴素 RAG 的结构缺陷:它把每个 chunk 单独编码成向量,chunk 之间没有连接。当答案需要「顺着一个共享实体一路跳过去」时,它连不起点。

一句话概括:GraphRAG 先用 LLM 把文档抽成「实体+关系」的知识图谱,再沿关系边做多跳遍历——它专治向量 RAG 的两大死穴:跨文档的多跳推理(connect the dots)和「整个语料在讲什么」的全局主题概括。代价是建图要逐 chunk 调 LLM,索引成本高 20-100 倍。

这篇给你讲透机制、用一个离线 demo 亲手看到向量 RAG 漏答而 GraphRAG 答对、并给出 2026 年「到底该不该上」的决策规则和省钱路径。


一、先看差异:向量 RAG 为什么「连不起点」

一个具体的多跳问题(demo 里就跑这个):

问:「张三所在公司的竞争对手是谁创立的?」 答案是 李四。

向量 RAG 的做法:把问题 embedding,按相似度检索 top-k chunk。问题里有「张三」「公司」「竞争对手」「创立」,能捞到 c1、c2。但答案所在的 c3 和问题关键词几乎不重叠,排不进 top-k,于是被漏掉——模型拿不到「李四」这个事实,只能瞎猜或拒答。

GraphRAG 的做法:先把文档抽成实体关系图,再从「张三」这个锚点实体出发,沿边遍历:

graph LR
    A["张三"] -->|"任职于"| B["Acme"]
    B -->|"竞争对手"| C["Globex"]
    C -->|"创立者"| D["李四"]

三跳走到「李四」。关键在于:图谱把散落在不同 chunk 的事实用共享实体连了起来,遍历时不依赖 chunk 和问题的关键词/语义相似度。 这就是「connect the dots」。

朴素向量 RAG GraphRAG
索引单位 独立 chunk 的向量 实体 + 关系构成的图
检索方式 相似度 top-k 沿关系边多跳遍历
多跳问题 常漏(关键词对不上就丢) 强项
全局主题概括 无能为力 社区摘要专治
溯源引用 靠 chunk 每条边带来源,天然可引
索引成本 只需 embedding 逐 chunk 调 LLM,高 20-100 倍

二、机制拆解:从文档到可遍历的图

Microsoft GraphRAG(论文《From Local to Global》arXiv:2404.16130)的完整管线分两大阶段。

索引阶段(贵,一次性):

  1. 切 chunk:Microsoft 建议切得比常规更小(50-100 token 而非 1200),让实体共现更密、图更连通。
  2. LLM 抽实体+关系:逐 chunk 让 LLM 抽出「实体、关系、描述」。这是成本大头——每 chunk 要 4-6 次 LLM 调用,占索引成本约 75%。
  3. 合并去重:把跨 chunk 的同名实体、重复子图合并。
  4. Leiden 社区检测:把图层级化地切成一个个「社区」(紧密相关的实体簇)。Leiden 比 Louvain 更好,修了「社区不连通」的 bug。
  5. 社区摘要预生成:给每一层每个社区,用 LLM 预先写一段摘要。

查询阶段(分两种模式):

模式 回答什么 怎么做
Local search 具体事实问题(多跳) 锚定实体 → 沿关系边遍历取子图 → 综合作答
Global search 「整个语料在讲什么主题」 把某一层所有社区摘要 map-reduce 过一遍 LLM

记住这条分工:local search 回答「谁创立了竞品」这种可锚定实体的具体问题;global search 回答「这批文档的核心主题有哪些」这种得纵览全局的问题——后者正是向量 RAG 彻底无能为力的地方。

Microsoft 自己的评测:在百万 token 语料的全局「意义构建」问题上,GraphRAG 在 72-83% 的全面性和 62-82% 的多样性对比中胜过朴素 RAG(LLM-as-judge,属厂商自评,看趋势)。


三、动手:离线看到向量 RAG 漏答、GraphRAG 答对

配套代码在 graphrag,完全离线(用手写三元组模拟 LLM 的抽取结果,聚焦机制本身),go run . 直接跑。

朴素 RAG 用关键词重叠冒充向量相似度,检索 top-2:

// naiveRAG 返回与 query 关键词重叠最高的 topK 个 chunk。
func naiveRAG(query string, topK int) []chunk {
    qs := tokenSet(query)
    // ... 按 overlap(qs, chunk) 排序取 topK ...
}

跑出来它只捞到 c1,漏掉了含答案的 c3:

是否包含答案所在的 c3(李四)? false
→ c3「Globex 由李四创立」和问题里的词几乎不重叠,被漏掉了。

GraphRAG 侧,先有「LLM 抽出的」三元组(这里手写模拟),再做多跳遍历:

// 模拟 LLM 逐 chunk 抽取的结果(真实系统这一步烧钱:每 chunk 4-6 次 LLM 调用)。
var graph = []triple{
    {"张三", "任职于", "Acme", "c1"},
    {"Acme", "竞争对手", "Globex", "c2"},
    {"Globex", "创立者", "李四", "c3"},
}

// multiHop 按关系路径从起点逐跳遍历——这就是 local search 的核心。
func multiHop(start string, relPath []string) (string, []string) {
    cur := start
    var trail []string
    for _, rel := range relPath {
        ns := neighbors(cur, rel) // 沿这条关系边走一跳
        if len(ns) == 0 {
            return "", trail
        }
        trail = append(trail, /* 记录这一跳 + 来源 chunk */ ...)
        cur = ns[0].obj
    }
    return cur, trail
}

跑出来三跳连上答案,且每跳自带来源:

第1跳  张三 --任职于--> Acme(来源 c1)
第2跳  Acme --竞争对手--> Globex(来源 c2)
第3跳  Globex --创立者--> 李四(来源 c3)
→ 答案:李四

同一个问题,向量 RAG 漏答、GraphRAG 答对,差异就在「有没有把点连起来」。 而且遍历路径天然是一条带来源的引用链——溯源是 GraphRAG 的附赠好处。


四、绕不开的成本悬崖,以及 2026 的省钱解法

GraphRAG 最大的现实阻力是索引贵:逐 chunk 调 LLM 抽实体,比纯 embedding 贵 20-100 倍。有博客称索引一个 5GB 法律数据集花了约 3.3 万美元(单一轶事,谨慎看待),但方向是对的——60-80% 的系统总成本花在索引而非查询上。

2026 年的省钱路径,按投入产出比排序:

手段 机制 省钱幅度
便宜模型抽取 用 GPT-4o-mini 抽实体,只在写社区摘要时用强模型 大头
LazyGraphRAG 索引期不调 LLM,改用名词短语/NLP 抽取,把 LLM 推迟到查询期 索引成本≈向量 RAG,约为 GraphRAG 的 0.1%
fast-graphrag 用 PageRank 排图节点优先级 号称便宜约 6 倍(厂商口径)
DRIFT search 先用社区摘要给初始答案,再 local search 钻取,避开全量 global 开销 省查询成本

LazyGraphRAG(Microsoft,2024 底)值得单独点名:它把索引成本压到和向量 RAG 一样(约为完整 GraphRAG 的 0.1%,近千倍降),在全局查询质量上还能打平甚至超过 global search。代价是查询变重——所以它适合一次性/探索性/流式的场景;若你要反复查询、要稳定的溯源引用、要可复用的主题查询,还是值得预先建图。

务实忠告:先用便宜模型跑 50-100 篇文档的试点,再按 ×1.4(不是 ×1.1)外推——因为社区检测的成本随实体数二次增长。


五、决策规则:到底该不该上 GraphRAG

先看最诚实的一个结论。密歇根州立/Meta 的中立评测(统一协议,最可信)发现没有普适赢家:单跳问题(Natural Questions)朴素 RAG 反而略胜(F1 64.8 vs 63.0);多跳问题(MultiHop-RAG)图检索胜(70.3 vs 67.0)。GraphRAG 是「专科升级」,不是「通用更强」。

该上 GraphRAG,当你的问题满足以下任一:

别上,继续用向量 RAG,当:

最重要的一条工程纪律:先拿真实用户问题在朴素向量库上跑一遍,确认「多跳/连点」瓶颈真实存在,再投入建图的基础设施。别一上来就 graph everything——抽取质量是 GraphRAG 成败的最大变量,抽得糙反而可能比纯 LLM 还差。


六、2026 落地栈

要「社区检测 + 全局摘要」这套:直接用 Microsoft GraphRAG(Leiden + 层级摘要);一次性/探索性负载考虑 LazyGraphRAG。

要「图 + 向量」融合的生产系统:Neo4j 原生栈是共识——Neo4j 把 HNSW 向量索引和图节点放一起(没有图与向量的同步缝),配 neo4j-graphrag-python 的 VectorCypherRetriever 做混合检索,用 LangGraph 编排。

框架选型的 2026 主流是组合式:LlamaIndex 管摄取/检索(Property Graph Index)+ LangGraph 管编排/agent + 独立的 eval 层。轻量自建可看 nano-graphrag(约 1100 行)。

注意坑:fast-graphrag 对 JSON 输出要求严格,7B-8B 本地小模型跑不动(需 GPT-4o-mini 级别),别指望用小模型省这块钱。


小结

GraphRAG 不是向量 RAG 的替代品,而是它的专科补强:向量检索把 chunk 单独编码、「连不起点」,遇到跨文档多跳和全局主题概括就失灵;GraphRAG 先用 LLM 抽实体关系建图,local search 沿边多跳把点连起来、global search 靠社区摘要纵览全局,还天然可溯源。代价是索引贵 20-100 倍,2026 年靠便宜模型抽取、LazyGraphRAG、DRIFT 等把成本压下来。决策纪律最关键:先在朴素向量库上验证「多跳瓶颈」真实存在,再建图——多数负载其实不需要遍历,别为不存在的问题上重型基础设施。


参考资料

资料 来源
From Local to Global: A GraphRAG Approach arXiv:2404.16130(Microsoft Research)
Microsoft GraphRAG(开源实现) github.com/microsoft/graphrag
GraphRAG 索引方法与概念文档 microsoft.github.io/graphrag
LazyGraphRAG(索引成本≈向量 RAG) microsoft.com/en-us/research/blog/lazygraphrag-setting-a-new-standard-for-quality-and-cost
DRIFT search(global+local 融合) microsoft.com/en-us/research/blog/introducing-drift-search
Neo4j GraphRAG for Python github.com/neo4j/neo4j-graphrag-python
nano-graphrag / fast-graphrag github.com/gusye1234/nano-graphrag
Do You Really Need GraphRAG?(诚实的决策指南) towardsdatascience.com/do-you-really-need-graphrag
本篇配套代码 github.com/hua-ri/agent-learning /main/graphrag